Réseaux de neurones de quaternions pour le traitement du langage
نویسندگان
چکیده
Machine Learning algorithms reach great performances on different Natural Language Processing tasks. Among these methods, Neural Networks (NN or MLP) recently received a great interest from researchers due to their capability to represent complex internal structures. However, MLPs employ basic word level or thème-based features and, therefore, reveal little in way of document statistical structure. We propose to address this issue by extending the NN to Quaternion called QMLP to take into consideration features dependencies. A well-dedicated segmentation of document approach is also compared to the one proposed in (Morchid et al., 2013). Experiments made on a SLU task with spoken dialogues show that our QMLP associated with the proposed document segmentation outperforms other approaches, with an gain of 2% and 3% compared to MLP and (Morchid et al., 2013) respectively. We finally demonstrated that less iterations are needed by QMLPs to reach better accuracies than MLP. MOTS-CLÉS : Réseaux de neurones, Quaternions, Traitement du langage.
منابع مشابه
Violence du langage dans l’œuvre dramatique de Samuel Beckett : la quête du néant
L’homme beckettien représente grosso modo sur la scène de théâtre des années cinquante le spectacle de souffrance physique et de désintégration totale du sujet qui est le fait d’un trauma et d’un complexe plus profonds, celui du vide de matières scéniques et du mal fondamental qu’on traiterait d’existentiel. En d’autres termes, le mal est dans ce monde quelque chose d’inné chez l’être humain. C...
متن کاملUtilisation des réseaux de neurones temporels pour le pronostic et la surveillance dynamique. Etude comparative de trois réseaux de neurones récurrents
RÉSUMÉ. L’objet de cet article consiste en un état de l’art des réseaux de neurones temporels et d’une comparaison de trois réseaux de neurones récurrents les plus représentatifs pour des applications de surveillance dynamique et de pronostic. Les critères de sélection de ces réseaux se situent à deux niveaux : temporel et architectural. Suite à l’application de ces critères, trois réseaux récu...
متن کاملPerspectives en matrices aléatoires et grands réseaux
RÉSUMÉ. Dans cet article, de nouvelles perspectives de recherche en matrices aléatoires appliquées à la théorie des graphes sont introduites. Nous nous attachons en particulier à l’analyse spectrale des matrices d’adjacence et laplaciennes de graphes de grandes dimensions pour la détection de communautés dans les réseaux, des matrices aléatoires à noyaux pour la classification non supervisée en...
متن کاملExperience de Constitution d'un Programme d'apprentissage pour le traitement automatique du langage
Dans ce travail, on pr~sente une m6thode d'apprentissage permettant partir d'un texte donne de constituer une syntaxe capable de lever les ambiguit& grammaticales du langage. Pour cela, on prend un texte T que ron code enti~rement en asso-ciant ~t chaque mot une cat~gorie grammaticale, celle qu'il a dans le texte.
متن کاملL'Intégration des Méthodes Monte Carlo par Chaînes de Markov dans l'Apprentissage des Réseaux de Neurones
Résumé : Les méthodes Monte Carlo par chaînes de Markov (MCMC) , s’inscrivent dans le cadre du formalisme Bayésien .On peut dire que l’application de ces méthodes à l’apprentissage des réseaux de neurones peut apporter plusieurs avantages, tout d’abord, l’introduction de connaissances a priori est susceptible d’améliorer l’estimation des paramètres. De plus, le formalisme Bayésien permet une an...
متن کاملذخیره در منابع من
با ذخیره ی این منبع در منابع من، دسترسی به آن را برای استفاده های بعدی آسان تر کنید
عنوان ژورنال:
دوره شماره
صفحات -
تاریخ انتشار 2017